<html>
 <head>
  <meta charset="utf-8"/>
  <meta content="width=device-width, initial-scale=1, maximum-scale=1, user-scalable=no" name="viewport"/>
  <title>
   严酷的魔王: xgboost: 速度快效果好的boosting模型  | 数螺 | NAUT IDEA
  </title>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap-theme.min.css" rel="stylesheet"/>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap.min.css" rel="stylesheet"/>
  <style type="text/css">
   #xmain img {
                  max-width: 100%;
                  display: block;
                  margin-top: 10px;
                  margin-bottom: 10px;
                }

                #xmain p {
                    line-height:150%;
                    font-size: 16px;
                    margin-top: 20px;
                }

                #xmain h2 {
                    font-size: 24px;
                }

                #xmain h3 {
                    font-size: 20px;
                }

                #xmain h4 {
                    font-size: 18px;
                }


                .header {
	           background-color: #0099ff;
	           color: #ffffff;
	           margin-bottom: 20px;
	        }

	        .header p {
                  margin: 0px;
                  padding: 10px 0;
                  display: inline-block;  
                  vertical-align: middle;
                  font-size: 16px;
               }

               .header a {
                 color: white;
               }

              .header img {
                 height: 25px;
              }
  </style>
  <script src="http://cdn.bootcss.com/jquery/3.0.0/jquery.min.js">
  </script>
  <script src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=TeX-AMS-MML_HTMLorMML" type="text/javascript">
   MathJax.Hub.Config({
          tex2jax: {inlineMath: [['$','$'], ['\\(','\\)']]},
          TeX: {equationNumbers: {autoNumber: "AMS"}}
        });
  </script>
  <script src="http://nautstatic-10007657.file.myqcloud.com/static/css/readability.min.js" type="text/javascript">
  </script>
  <script type="text/javascript">
   $(document).ready(function() {
                 var loc = document.location;
                 var uri = {
                  spec: "http://cos.name/2015/03/xgboost/",
                  host: "http://cos.name",
                  prePath: "http://cos.name",
                  scheme: "http",
                  pathBase: "http://cos.name/"
                 };
    
                 var documentClone = document.cloneNode(true);
                 var article = new Readability(uri, documentClone).parse();
     
                 document.getElementById("xmain").innerHTML = article.content;
                });
  </script>
  <!-- 1466466698: Accept with keywords: (title(0.25):效果,门户网站,模型,统计学,魔王,服务平台,中国,速度快, topn(0.5):大家,入门,统计学,R语言,数据挖掘,速度快,硬盘,预测,数据分析,文件,自定义,模型,参数,懵圈到,文章,格式,数据,稀疏矩阵,函数,python,矩阵,用户,建模,问题,功能,代码,分类,样例,魔王,时候).-->
 </head>
 <body class="single single-post postid-10608 single-format-standard sidebar" onload="">
  <div class="header">
   <div class="container">
    <div class="row">
     <div class="col-xs-6 col-sm-6 text-left">
      <a href="/databee">
       <img src="http://nautidea-10007657.cos.myqcloud.com/logo_white.png"/>
      </a>
      <a href="/databee">
       <p>
        数螺
       </p>
      </a>
     </div>
     <div class="hidden-xs col-sm-6 text-right">
      <p>
       致力于数据科学的推广和知识传播
      </p>
     </div>
    </div>
   </div>
  </div>
  <div class="container text-center">
   <h1>
    严酷的魔王: xgboost: 速度快效果好的boosting模型
   </h1>
  </div>
  <div class="container" id="xmain">
   <div class="hfeed site" id="page">
    <header class="site-header" id="masthead" role="banner">
     <div id="cos-logo">
      <a href="http://cos.name/">
       <img src="http://cos.name/wp-content/themes/COS-kermesinus/images/headers/cos-logo.png"/>
      </a>
     </div>
     <div class="navbar" id="navbar">
      <nav class="navigation main-navigation" id="site-navigation" role="navigation">
       <h3 class="menu-toggle">
        菜单
       </h3>
       <a class="screen-reader-text skip-link" href="http://cos.name/2015/03/xgboost/#content" title="跳至内容">
        跳至内容
       </a>
       <div class="menu-%e6%88%91%e7%9a%84%e8%8f%9c%e5%8d%95-container">
        <ul class="nav-menu" id="menu-%e6%88%91%e7%9a%84%e8%8f%9c%e5%8d%95">
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-home menu-item-4746" id="menu-item-4746">
          <a href="http://cos.name">
           主页
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-has-children menu-item-8120" id="menu-item-8120">
          <a href="http://cos.name/cn">
           论坛
          </a>
          <ul class="sub-menu">
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8124" id="menu-item-8124">
            <a href="http://cos.name/cn/wp-login.php?action=register">
             论坛注册
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8125" id="menu-item-8125">
            <a href="http://cos.name/cn/wp-login.php">
             论坛登录
            </a>
           </li>
          </ul>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8110" id="menu-item-8110">
          <a href="http://cos.name/books/">
           图书资料
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8112" id="menu-item-8112">
          <a href="http://cos.name/videos">
           视频教程
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8333" id="menu-item-8333">
          <a href="http://cos.name/salon/">
           统计沙龙
          </a>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8111" id="menu-item-8111">
          <a href="http://cos.name/chinar/">
           R语言会议
          </a>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8109" id="menu-item-8109">
          <a href="http://cos.name/training/">
           讲座与培训
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8115" id="menu-item-8115">
          <a href="http://cos.name/cn/forum/comprehensive/job/">
           招聘信息
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-has-children menu-item-4780" id="menu-item-4780">
          <a href="http://cos.name/about">
           关于我们
          </a>
          <ul class="sub-menu">
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8113" id="menu-item-8113">
            <a href="http://cos.name/2008/11/how-to-work-with-cos/">
             加入我们
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8119" id="menu-item-8119">
            <a href="http://cos.name/donate/">
             赞助我们
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8114" id="menu-item-8114">
            <a href="http://cos.name/cn/forum/26">
             项目合作
            </a>
           </li>
          </ul>
         </li>
        </ul>
       </div>
       <form action="http://cos.name/" class="search-form" method="get" role="search">
        <label>
         <span class="screen-reader-text">
          搜索：
         </span>
        </label>
       </form>
      </nav>
      <!-- #site-navigation -->
     </div>
     <!-- #navbar -->
    </header>
    <!-- #masthead -->
    <div class="site-main" id="main">
     <div class="content-area" id="primary">
      <div class="site-content" id="content" role="main">
       <article class="post-10608 post type-post status-publish format-standard hentry category-dmml category-website category-packages category-software tag-boosting tag-gradient-boosting-machine tag-xgboost tag-878" id="post-10608">
        <header class="entry-header">
         <h1 class="entry-title">
          xgboost: 速度快效果好的boosting模型
         </h1>
         <div class="entry-meta">
          <span class="date">
           <a href="http://cos.name/2015/03/xgboost/" rel="bookmark" title="链向xgboost: 速度快效果好的boosting模型的固定链接">
            <time class="entry-date" datetime="2015-03-04T13:09:00+00:00">
             2015/03/04
            </time>
           </a>
          </span>
          <span class="categories-links">
           <a href="http://cos.name/category/data/dmml/" rel="category tag">
            数据挖掘与机器学习
           </a>
           、
           <a href="http://cos.name/category/website/" rel="category tag">
            统计之都
           </a>
           、
           <a href="http://cos.name/category/software/packages/" rel="category tag">
            统计软件
           </a>
           、
           <a href="http://cos.name/category/software/" rel="category tag">
            软件应用
           </a>
          </span>
          <span class="tags-links">
           <a href="http://cos.name/tag/boosting/" rel="tag">
            boosting
           </a>
           、
           <a href="http://cos.name/tag/gradient-boosting-machine/" rel="tag">
            Gradient Boosting Machine
           </a>
           、
           <a href="http://cos.name/tag/xgboost/" rel="tag">
            xgboost
           </a>
           、
           <a href="http://cos.name/tag/%e6%95%b0%e6%8d%ae%e5%bb%ba%e6%a8%a1%e9%a2%84%e6%b5%8b/" rel="tag">
            数据建模预测
           </a>
          </span>
          <span class="author vcard">
           <a class="url fn n" href="http://cos.name/author/hetong007/" rel="author" title="查看所有由严酷的魔王发布的文章">
            严酷的魔王
           </a>
          </span>
         </div>
         <!-- .entry-meta -->
        </header>
        <!-- .entry-header -->
        <div class="entry-content">
         <blockquote>
          <p>
           本文作者：何通，
           <a href="http://www.supstat.com">
            SupStat Inc
           </a>
           (总部在纽约，中国分部为
           <a href="http://supstat.com.cn/">
            北京数博思达信息科技有限公司
           </a>
           ）数据科学家，加拿大Simon Fraser University计算机学院研究生，研究兴趣为数据挖掘和生物信息学。
          </p>
          <p>
           主页：
           <a href="https://github.com/hetong007">
            https://github.com/hetong007
           </a>
          </p>
         </blockquote>
         <h2>
          引言
         </h2>
         <p>
          在数据分析的过程中，我们经常需要对数据建模并做预测。在众多的选择中，
          <a href="http://cran.r-project.org/web/packages/randomForest/index.html">
           randomForest
          </a>
          ,
          <a href="http://cran.r-project.org/web/packages/gbm/index.html">
           gbm
          </a>
          和
          <a href="http://cran.r-project.org/web/packages/glmnet/index.html">
           glmnet
          </a>
          是三个尤其流行的R包，它们在Kaggle的各大数据挖掘竞赛中的出现频率独占鳌头，被坊间人称为R数据挖掘包中的
          <a href="http://www.weibo.com/2043157342/AqLjiD6G4">
           三驾马车
          </a>
          。根据我的个人经验，gbm包比同样是使用树模型的randomForest包占用的内存更少，同时训练速度较快，尤其受到大家的喜爱。在python的机器学习库sklearn里也有
          <a href="http://scikit-learn.org/stable/modules/generated/sklearn.ensemble.GradientBoostingClassifier.html">
           GradientBoostingClassifier
          </a>
          的存在。
         </p>
         <p>
          Boosting分类器属于集成学习模型，它基本思想是把成百上千个分类准确率较低的树模型组合起来，成为一个准确率很高的模型。这个模型会不断地迭代，每次迭代就生成一颗新的树。对于如何在每一步生成合理的树，大家提出了很多的方法，我们这里简要介绍由Friedman提出的Gradient Boosting Machine。它在生成每一棵树的时候采用梯度下降的思想，以之前生成的所有树为基础，向着最小化给定目标函数的方向多走一步。在合理的参数设置下，我们往往要生成一定数量的树才能达到令人满意的准确率。在数据集较大较复杂的时候，我们可能需要几千次迭代运算，如果生成一个树模型需要几秒钟，那么这么多迭代的运算耗时，应该能让你专心地想静静……
         </p>
         <p>
          <a href="http://cos.name/wp-content/uploads/2015/03/QQ截图20150303205700.png">
           <img src="http://cos.name/wp-content/uploads/2015/03/QQ截图20150303205700-300x127.png"/>
          </a>
         </p>
         <p>
          现在，我们希望能通过xgboost工具更好地解决这个问题。
          <a href="https://github.com/dmlc/xgboost">
           xgboost
          </a>
          的全称是eXtreme Gradient Boosting。正如其名，它是Gradient Boosting Machine的一个c++实现，作者为正在华盛顿大学研究机器学习的大牛
          <a href="http://homes.cs.washington.edu/~tqchen/">
           陈天奇
          </a>
          。他在研究中深感自己受制于现有库的计算速度和精度，因此在一年前开始着手搭建xgboost项目，并在去年夏天逐渐成型。xgboost最大的特点在于，它能够自动利用CPU的多线程进行并行，同时在算法上加以改进提高了精度。它的处女秀是Kaggle的
          <a href="http://www.kaggle.com/c/higgs-boson">
           希格斯子信号识别
          </a>
          竞赛，因为出众的效率与较高的预测准确度在比赛论坛中引起了参赛选手的
          <a href="https://www.kaggle.com/c/higgs-boson/forums/t/8184/public-starting-guide-to-get-above-3-60-ams-score">
           广泛关注
          </a>
          ，在1700多支队伍的激烈竞争中占有一席之地。随着它在Kaggle社区知名度的提高，最近也有队伍借助xgboost在比赛中
          <a href="http://www.kaggle.com/c/tradeshift-text-classification/forums/t/10901/solution-sharing">
           夺得第一
          </a>
          。
         </p>
         <p>
          为了方便大家使用，陈天奇将xgboost封装成了python库。我有幸和他合作，制作了xgboost工具的R语言接口，并将其提交到了
          <a href="http://cran.r-project.org/web/packages/xgboost/index.html">
           CRAN上
          </a>
          。也有用户将其封装成了
          <a href="https://github.com/antinucleon/XGBoost.jl">
           julia库
          </a>
          。python和R接口的功能一直在不断更新，大家可以通过下文了解大致的功能，然后选择自己最熟悉的语言进行学习。
         </p>
         <p>
          <span id="more-10608">
          </span>
         </p>
         <h2>
          功能介绍
         </h2>
         <p>
          <strong>
           一、基础功能
          </strong>
         </p>
         <p>
          首先，我们从github上安装这个包：
         </p>
         <pre><code>devtools::install_github('dmlc/xgboost',subdir='R-package')</code></pre>
         <p>
          动手时间到！第一步，运行下面的代码载入样例数据：
         </p>
         <pre><code>require(xgboost)
data(agaricus.train, package='xgboost')
data(agaricus.test, package='xgboost')
train &lt;- agaricus.train
test &lt;- agaricus.test
</code></pre>
         <p>
          <a href="http://www.jmlr.org/papers/volume1/meila00a/html/node30.html">
           这份数据
          </a>
          需要我们通过一些蘑菇的若干属性判断这个品种是否有毒。数据以1或0来标记某个属性存在与否，所以样例数据为稀疏矩阵类型：
         </p>
         <pre><code>&gt; class(train$data)
[1] "dgCMatrix"
attr(,"package")
[1] "Matrix"</code></pre>
         <p>
          不用担心，xgboost支持稀疏矩阵作为输入。下面就是训练模型的命令
         </p>
         <pre><code>&gt; bst &lt;- xgboost(data = train$data, label = train$label, max.depth = 2, eta = 1,
+                nround = 2, objective = "binary:logistic")
[0]	train-error:0.046522
[1]	train-error:0.022263
</code></pre>
         <p>
          我们迭代了两次，可以看到函数输出了每一次迭代模型的误差信息。这里的数据是稀疏矩阵，当然也支持普通的稠密矩阵。如果数据文件太大不希望读进R中，我们也可以通过设置参数
          <code>
           data = 'path_to_file'
          </code>
          使其直接从硬盘读取数据并分析。目前支持直接从硬盘读取libsvm格式的文件。
         </p>
         <p>
          做预测只需要一句话：
         </p>
         <pre><code>pred &lt;- predict(bst, test$data)</code></pre>
         <p>
          做交叉验证的函数参数与训练函数基本一致，只需要在原有参数的基础上设置
          <code>
           nfold
          </code>
          ：
         </p>
         <pre><code>&gt; cv.res &lt;- xgb.cv(data = train$data, label = train$label, max.depth = 2, 
+                  eta = 1, nround = 2, objective = "binary:logistic", 
+                  nfold = 5)
[0]	train-error:0.046522+0.001102	test-error:0.046523+0.004410
[1]	train-error:0.022264+0.000864	test-error:0.022266+0.003450
&gt; cv.res
   train.error.mean train.error.std test.error.mean test.error.std
1:         0.046522        0.001102        0.046523       0.004410
2:         0.022264        0.000864        0.022266       0.003450</code></pre>
         <p>
          交叉验证的函数会返回一个data.table类型的结果，方便我们监控训练集和测试集上的表现，从而确定最优的迭代步数。
         </p>
         <p>
          <strong>
           二、高速准确
          </strong>
         </p>
         <p>
          上面的几行代码只是一个入门，使用的样例数据没法表现出xgboost高效准确的能力。xgboost通过如下的优化使得效率大幅提高：
         </p>
         <ol>
          <li>
           xgboost借助
           <a href="http://openmp.org/wp/">
            OpenMP
           </a>
           ，能自动利用单机CPU的多核进行并行计算。需要注意的是，Mac上的Clang对OpenMP的支持较差，所以默认情况下只能单核运行。
          </li>
          <li>
           xgboost自定义了一个数据矩阵类DMatrix，会在训练开始时进行一遍预处理，从而提高之后每次迭代的效率。
          </li>
         </ol>
         <p>
          在尽量保证所有参数都一致的情况下，我们使用希格斯子竞赛的数据做了对照实验。
         </p>
         <table class="tg">
          <tbody>
           <tr>
            <th class="tg-s6z2" rowspan="2">
             Model and Parameter
            </th>
            <th class="tg-s6z2" rowspan="2">
             gbm
            </th>
            <th class="tg-s6z2" colspan="4">
             xgboost
            </th>
           </tr>
           <tr>
            <td class="tg-s6z2">
             1 thread
            </td>
            <td class="tg-s6z2">
             2 threads
            </td>
            <td class="tg-s6z2">
             4 threads
            </td>
            <td class="tg-s6z2">
             8 threads
            </td>
           </tr>
           <tr>
            <td class="tg-s6z2">
             Time (in secs)
            </td>
            <td class="tg-s6z2">
             761.48
            </td>
            <td class="tg-s6z2">
             450.22
            </td>
            <td class="tg-s6z2">
             102.41
            </td>
            <td class="tg-s6z2">
             44.18
            </td>
            <td class="tg-s6z2">
             34.04
            </td>
           </tr>
          </tbody>
         </table>
         <p>
          以上实验使用的CPU是i7-4700MQ。python的sklearn速度与gbm相仿。如果想要自己对这个结果进行测试，可以在比赛的官方网站下载数据，并参考这份
          <a href="https://github.com/tqchen/xgboost/tree/master/demo/kaggle-higgs">
           demo
          </a>
          中的代码。
         </p>
         <p>
          除了明显的速度提升外，xgboost在比赛中的效果也非常好。在这个竞赛初期，大家惊讶地发现R和python中的gbm竟然难以突破组织者预设的benchmark。而xgboost横空出世，用不到一分钟的训练时间便打入当时的top 10，引起了大家的兴趣与关注。准确度提升的主要原因在于，xgboost的模型和传统的GBDT相比加入了对于模型复杂度的控制以及后期的剪枝处理，使得学习出来的模型更加不容易过拟合。更多算法上的细节可以参考这份陈天奇给出的
          <a href="http://homes.cs.washington.edu/~tqchen/pdf/BoostedTree.pdf">
           介绍性讲义
          </a>
          。
         </p>
         <p>
          <strong>
           三、进阶特征
          </strong>
         </p>
         <p>
          除了速度快精度高，xgboost还有一些很有用的进阶特性。下面的“demo”链接对应着相应功能的简单样例代码。
         </p>
         <ol>
          <li>
           只要能够求出目标函数的梯度和Hessian矩阵，用户就可以自定义训练模型时的目标函数。
           <a href="https://github.com/tqchen/xgboost/blob/master/R-package/demo/custom_objective.R#L17">
            demo
           </a>
          </li>
          <li>
           允许用户在交叉验证时自定义误差衡量方法，例如回归中使用RMSE还是RMSLE，分类中使用AUC，分类错误率或是F1-score。甚至是在希格斯子比赛中的“奇葩”衡量标准
           <a href="http://www.kaggle.com/c/higgs-boson/details/evaluation">
            AMS
           </a>
           。
           <a href="https://github.com/tqchen/xgboost/blob/master/R-package/demo/custom_objective.R#L31">
            demo
           </a>
          </li>
          <li>
           交叉验证时可以返回模型在每一折作为预测集时的预测结果，方便构建ensemble模型。
           <a href="https://github.com/tqchen/xgboost/blob/master/R-package/demo/cross_validation.R#L49">
            demo
           </a>
          </li>
          <li>
           允许用户先迭代1000次，查看此时模型的预测效果，然后继续迭代1000次，最后模型等价于一次性迭代2000次。
           <a href="https://github.com/tqchen/xgboost/blob/master/R-package/demo/boost_from_prediction.R#L18">
            demo
           </a>
          </li>
          <li>
           可以知道每棵树将样本分类到哪片叶子上，
           <a href="http://quinonero.net/Publications/predicting-clicks-facebook.pdf">
            facebook介绍过
           </a>
           如何利用这个信息提高模型的表现。
           <a href="https://github.com/tqchen/xgboost/blob/master/R-package/demo/predict_leaf_indices.R#L17">
            demo
           </a>
          </li>
          <li>
           可以计算变量重要性并画出树状图。
           <a href="https://github.com/tqchen/xgboost/blob/master/R-package/R/xgb.plot.tree.R">
            demo
           </a>
          </li>
          <li>
           可以选择使用线性模型替代树模型，从而得到带L1+L2惩罚的线性回归或者logistic回归。
           <a href="https://github.com/tqchen/xgboost/blob/master/R-package/demo/generalized_linear_model.R#L17">
            demo
           </a>
          </li>
         </ol>
         <p>
          这些丰富的功能来源于对日常使用场景的总结，数据挖掘比赛需求以及许多用户给出的精彩建议。
         </p>
         <p>
          <strong>
           四、未来计划
          </strong>
         </p>
         <p>
          现在，机器学习工具在实用中会不可避免地遇到“单机性能不够”的问题。目前，xgboost的
          <a href="https://github.com/tqchen/xgboost/tree/master/multi-node">
           多机分布式版本
          </a>
          正在开发当中。基础设施搭建完成之日，便是新一轮R包开始设计与升级之时。
         </p>
         <h2>
          结语
         </h2>
         <p>
          我为xgboost制作R接口的目的就是希望引进好的工具，让大家使用R的时候心情更愉悦。总结下来，xgboost的特点有三个：速度快，效果好，功能多，希望它能受到大家的喜爱，成为一驾新的马车。
         </p>
         <p>
          xgboost功能较多，参数设置比较繁杂，希望在上手之后有更全面了解的读者可以参考
          <a href="https://github.com/tqchen/xgboost/wiki">
           项目wiki
          </a>
          。欢迎大家多多交流，在
          <a href="https://github.com/tqchen/xgboost/issues">
           项目issue区
          </a>
          提出疑问与建议。我们也邀请有兴趣的读者提交代码完善功能，让xgboost成为更好用的工具。
         </p>
         <p>
          另外，在使用github开发的过程中，我深切地感受到了协作写代码带来的变化。一群人在一起的时候，可以写出更有效率的代码，在丰富的使用场景中发现新的需求，在极端情况发现隐藏很深的bug，甚至在主代码手
          <em>
           <del>
            拖延症
           </del>
          </em>
          较为忙碌的时候有人挺身而出拿下一片issue。这样的氛围，能让一个语言社区的交流丰富起来，从而充满生命力地活跃下去。
         </p>
         <div class="wumii-hook">
          <br/>
          <br/>
         </div>
        </div>
        <!-- .entry-content -->
        <footer class="entry-meta">
        </footer>
        <!-- .entry-meta -->
       </article>
       <!-- #post -->
       <nav class="navigation post-navigation" role="navigation">
        <h1 class="screen-reader-text">
         文章导航
        </h1>
        <div class="nav-links">
         <a href="http://cos.name/2015/02/lucky-money/" rel="prev">
          <span class="meta-nav">
           ←
          </span>
          嘿，朋友，抢红包了吗？
         </a>
         <a href="http://cos.name/2015/03/the-bulb-measurement-with-r/" rel="next">
          用R测量灯泡的体积
          <span class="meta-nav">
           →
          </span>
         </a>
        </div>
        <!-- .nav-links -->
       </nav>
       <!-- .navigation -->
       <div class="comments-area" id="comments">
        <h2 class="comments-title">
         《
         <span>
          xgboost: 速度快效果好的boosting模型
         </span>
         》有44个想法
        </h2>
        <ol class="comment-list">
         <li class="comment even thread-even depth-1 parent" id="comment-6609">
          <article class="comment-body" id="div-comment-6609">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/bb0feb76115ecef9b879790477c0a7c2?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              itellin
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6609">
              <time datetime="2015-03-05T08:48:35+00:00">
               2015/03/05 08:48
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             你这个包的矩阵是这种格式dgCMatrix，和我们通常使用的格式不一样，如何转换到你定义的格式呢？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给itellin" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6609#respond" onclick='return addComment.moveForm( "div-comment-6609", "6609", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-2 parent" id="comment-6610">
            <article class="comment-body" id="div-comment-6610">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6610">
                <time datetime="2015-03-05T09:00:36+00:00">
                 2015/03/05 09:00
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               使用正常的matrix格式也是完全没有问题的。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6610#respond" onclick='return addComment.moveForm( "div-comment-6610", "6610", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment even depth-3" id="comment-7021">
              <article class="comment-body" id="div-comment-7021">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/de300629bdab01eb5d8f91a8d89d73d1?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  罗锐
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2015/03/xgboost/#comment-7021">
                  <time datetime="2016-01-06T14:13:24+00:00">
                   2016/01/06 14:13
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 请教：“目前支持直接从硬盘读取libsvm格式的文件。”，有没有将CSV文件或TXT文件转换为libsvm格式文件的脚本？
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-6611">
          <article class="comment-body" id="div-comment-6611">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/bb0feb76115ecef9b879790477c0a7c2?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              itellin
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6611">
              <time datetime="2015-03-05T12:42:35+00:00">
               2015/03/05 12:42
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             matrix是可以，但是data.frame不行。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给itellin" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6611#respond" onclick='return addComment.moveForm( "div-comment-6611", "6611", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor even depth-2" id="comment-6612">
            <article class="comment-body" id="div-comment-6612">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6612">
                <time datetime="2015-03-05T13:16:38+00:00">
                 2015/03/05 13:16
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               因为data.frame难以保证所有列都是数值型变量，过于灵活，希望在用户层面转换成matrix之后再运行。另外dgCMatrix是Matrix包中的一个稀疏矩阵类，建议在数据稀疏的时候使用。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6612#respond" onclick='return addComment.moveForm( "div-comment-6612", "6612", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1 parent" id="comment-6613">
          <article class="comment-body" id="div-comment-6613">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/bb0feb76115ecef9b879790477c0a7c2?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              itellin
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6613">
              <time datetime="2015-03-05T14:19:11+00:00">
               2015/03/05 14:19
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             所以讲这个包还是有短板的，不知道后续能否对数据框也可以使实现这种功能，毕竟数据框使用的比较多。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给itellin" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6613#respond" onclick='return addComment.moveForm( "div-comment-6613", "6613", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor even depth-2" id="comment-6614">
            <article class="comment-body" id="div-comment-6614">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6614">
                <time datetime="2015-03-05T14:33:30+00:00">
                 2015/03/05 14:33
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               data.frame中可能夹杂factor/bool/character等类型，而不同任务中有不同的适当方法把这些值转换为数值，这一步应该由用户来仔细操作，而不是放进一个统一的搅拌机里简单地套用as.matrix函数。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6614#respond" onclick='return addComment.moveForm( "div-comment-6614", "6614", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-6616">
          <article class="comment-body" id="div-comment-6616">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/c0c3236c43c87d04541179d7b8b20336?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              dsd
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6616">
              <time datetime="2015-03-06T14:43:25+00:00">
               2015/03/06 14:43
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             1
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给dsd" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6616#respond" onclick='return addComment.moveForm( "div-comment-6616", "6616", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1 parent" id="comment-6624">
          <article class="comment-body" id="div-comment-6624">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/7091e90c0667e90469e0f6ebf72d65e5?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              R_learning
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6624">
              <time datetime="2015-03-16T14:45:05+00:00">
               2015/03/16 14:45
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             CRAN上貌似没有xgboost的包诶，还是说是我的R版本是3.1.2的缘故呢？github上直接下也说是没有R 包，是不是因为我是linux系统的缘故？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给R_learning" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6624#respond" onclick='return addComment.moveForm( "div-comment-6624", "6624", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-2 parent" id="comment-6625">
            <article class="comment-body" id="div-comment-6625">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6625">
                <time datetime="2015-03-16T14:51:11+00:00">
                 2015/03/16 14:51
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               目前请通过 devtools::install_github(‘tqchen/xgboost’,subdir=’R-pacakge’) 从github上安装
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6625#respond" onclick='return addComment.moveForm( "div-comment-6625", "6625", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment even depth-3" id="comment-6635">
              <article class="comment-body" id="div-comment-6635">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/d4185836c1a4836aa1141c16754018ab?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  dmh
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2015/03/xgboost/#comment-6635">
                  <time datetime="2015-03-19T12:43:53+00:00">
                   2015/03/19 12:43
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 使用devtools::install_github(‘tqchen/xgboost’,subdir=’R-pacakge’) 安装包时出现错误：
                 <br/>
                 *** arch – i386
                 <br/>
                 警告: 运行命令’make -f “Makevars.win” -f “D:/_STAT_~1/R-31~1.3/etc/i386/Makeconf” -f “D:/_STAT_~1/R-31~1.3/share/make/winshlib.mk” SHLIB_LDFLAGS=’$(SHLIB_CXXLDFLAGS)’ SHLIB_LD=’$(SHLIB_CXXLD)’ SHLIB=”xgboost.dll” ‘的状态是127
                 <br/>
                 ERROR: compilation failed for package ‘xgboost’
                 <br/>
                 * removing ‘D:/[Stat]/R-3.1.3/library/xgboost’
                 <br/>
                 Error: Command failed (1)
                </p>
                <p>
                 操作系统是win8.1
                 <br/>
                 R的版本是3.1.3
                </p>
                <p>
                 不知道是什么原因囧
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
             <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-3" id="comment-6637">
              <article class="comment-body" id="div-comment-6637">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                   严酷的魔王
                  </a>
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2015/03/xgboost/#comment-6637">
                  <time datetime="2015-03-20T06:30:43+00:00">
                   2015/03/20 06:30
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 在Windows下从github安装，需要先安装Rtools:
                 <a href="http://cran.r-project.org/bin/windows/Rtools/" rel="nofollow">
                  http://cran.r-project.org/bin/windows/Rtools/
                 </a>
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1 parent" id="comment-6631">
          <article class="comment-body" id="div-comment-6631">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/9d7b470896e31756129e0fc0d8b82739?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              Leon
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6631">
              <time datetime="2015-03-18T16:57:57+00:00">
               2015/03/18 16:57
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             Error in xgb.DMatrix(newdata) : can not open file “21”
             <br/>
             请问这是什么时候会产生的情况？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Leon" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6631#respond" onclick='return addComment.moveForm( "div-comment-6631", "6631", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-2" id="comment-6634">
            <article class="comment-body" id="div-comment-6634">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6634">
                <time datetime="2015-03-19T01:26:17+00:00">
                 2015/03/19 01:26
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               出错的时候newdata是一个字符串么
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6634#respond" onclick='return addComment.moveForm( "div-comment-6634", "6634", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1 parent" id="comment-6657">
          <article class="comment-body" id="div-comment-6657">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/e9edab958348b68bb922dfe4242165eb?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              studentht
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6657">
              <time datetime="2015-04-09T20:11:04+00:00">
               2015/04/09 20:11
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             魔王，我安装出现这样的问题怎么破
             <br/>
             &gt; devtools::install_github(“tqchen/xgboost”,subdir=”R-pacakge”)
             <br/>
             Downloading github repo tqchen/xgboost@master
             <br/>
             Error in download(dest, src, auth) : client error: (404) Not Found
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给studentht" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6657#respond" onclick='return addComment.moveForm( "div-comment-6657", "6657", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-2 parent" id="comment-6658">
            <article class="comment-body" id="div-comment-6658">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6658">
                <time datetime="2015-04-10T01:16:29+00:00">
                 2015/04/10 01:16
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               换了一个repo，试试从这安装
               <a href="https://github.com/dmlc/xgboost/tree/master/R-package" rel="nofollow">
                https://github.com/dmlc/xgboost/tree/master/R-package
               </a>
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6658#respond" onclick='return addComment.moveForm( "div-comment-6658", "6658", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment even depth-3" id="comment-6659">
              <article class="comment-body" id="div-comment-6659">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/e9edab958348b68bb922dfe4242165eb?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  studentht
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2015/03/xgboost/#comment-6659">
                  <time datetime="2015-04-10T10:24:31+00:00">
                   2015/04/10 10:24
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 可以了，谢谢魔王
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-6668">
          <article class="comment-body" id="div-comment-6668">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/399d446ee178abeb07ef7f16d5c230b4?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              郑志强
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6668">
              <time datetime="2015-04-16T21:55:26+00:00">
               2015/04/16 21:55
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             package ‘RTools’ is not available (as a binary package for R version 3.1.3)总会提示这个的，究竟是什么原因
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给郑志强" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6668#respond" onclick='return addComment.moveForm( "div-comment-6668", "6668", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor even depth-2" id="comment-6672">
            <article class="comment-body" id="div-comment-6672">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6672">
                <time datetime="2015-04-21T22:21:27+00:00">
                 2015/04/21 22:21
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               是什么代码导致了这个错误？
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6672#respond" onclick='return addComment.moveForm( "div-comment-6672", "6672", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-6673">
          <article class="comment-body" id="div-comment-6673">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/e9edab958348b68bb922dfe4242165eb?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              studentht
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6673">
              <time datetime="2015-04-22T16:15:00+00:00">
               2015/04/22 16:15
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             魔王，Error in xgb.DMatrix(data, label = label) : can not open file “0.64”，这个报错什么意思？已经转成matrix格式，以前用别的数据有没问题
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给studentht" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6673#respond" onclick='return addComment.moveForm( "div-comment-6673", "6673", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1 parent" id="comment-6696">
          <article class="comment-body" id="div-comment-6696">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/d4eab0de4090438ab23b2ddecd3b0368?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              Lili Sun
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6696">
              <time datetime="2015-05-13T04:03:56+00:00">
               2015/05/13 04:03
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             devtools::install_github(‘dmlc/xgboost’,subdir=’R-pacakge’)
             <br/>
             这里 subdir=“R-package”  原帖里拼错了
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Lili Sun" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6696#respond" onclick='return addComment.moveForm( "div-comment-6696", "6696", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-2" id="comment-6697">
            <article class="comment-body" id="div-comment-6697">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6697">
                <time datetime="2015-05-13T04:43:23+00:00">
                 2015/05/13 04:43
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               已修正，谢谢！
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6697#respond" onclick='return addComment.moveForm( "div-comment-6697", "6697", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1 parent" id="comment-6698">
          <article class="comment-body" id="div-comment-6698">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/cd7b1b054c0731207bf184f7890071e1?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              阿文
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6698">
              <time datetime="2015-05-15T04:18:49+00:00">
               2015/05/15 04:18
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             devtools::install_github(‘dmlc/xgboost’,subdir=’R-package’)
             <br/>
             Downloading github repo dmlc/xgboost@master
             <br/>
             Installing xgboost
             <br/>
             “C:/Program Files/R/R-31~1.3/bin/x64/R” –no-site-file –no-environ –no-save  \
             <br/>
             –no-restore CMD INSTALL  \
             <br/>
             “C:/Users/Administrator/AppData/Local/Temp/RtmpOGz8Fz/devtools153c65a7363d/dmlc-xgboost-3a7808d/R-package”  \
             <br/>
             –library=”C:/Program Files/R/R-3.1.3/library” –install-tests
            </p>
            <p>
             ‘C:\Program’ 不是内部或外部命令，也不是可运行的程序
             <br/>
             或批处理文件。
             <br/>
             Error: Command failed (1)
            </p>
            <p>
             64bit windows 7
             <br/>
             Rstudio 3.1.3
             <br/>
             求助
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给阿文" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6698#respond" onclick='return addComment.moveForm( "div-comment-6698", "6698", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-2" id="comment-6699">
            <article class="comment-body" id="div-comment-6699">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6699">
                <time datetime="2015-05-15T04:23:12+00:00">
                 2015/05/15 04:23
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               请安装Rtools：
               <a href="http://cran.r-project.org/bin/windows/Rtools/" rel="nofollow">
                http://cran.r-project.org/bin/windows/Rtools/
               </a>
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6699#respond" onclick='return addComment.moveForm( "div-comment-6699", "6699", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1 parent" id="comment-6713">
          <article class="comment-body" id="div-comment-6713">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/fab6aa79401c361fd86040eb735e71ce?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              丁星光
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6713">
              <time datetime="2015-05-27T10:03:47+00:00">
               2015/05/27 10:03
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             在install.packages(‘xgboost’)的时候，提示package ‘xgboost’ is not available (for R version 3.2.0) 。求指点啊。。rtools已装。。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给丁星光" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6713#respond" onclick='return addComment.moveForm( "div-comment-6713", "6713", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-2 parent" id="comment-6714">
            <article class="comment-body" id="div-comment-6714">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6714">
                <time datetime="2015-05-27T10:06:10+00:00">
                 2015/05/27 10:06
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               认真读这篇文章，你就会发现安装命令其实是
              </p>
              <p>
               devtools::install_github(‘dmlc/xgboost’,subdir=’R-package’)
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6714#respond" onclick='return addComment.moveForm( "div-comment-6714", "6714", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment even depth-3" id="comment-6715">
              <article class="comment-body" id="div-comment-6715">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/fab6aa79401c361fd86040eb735e71ce?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  丁星光
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2015/03/xgboost/#comment-6715">
                  <time datetime="2015-05-27T14:05:41+00:00">
                   2015/05/27 14:05
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 能用了，感谢!!!
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1 parent" id="comment-6940">
          <article class="comment-body" id="div-comment-6940">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/4439dfb85e827736d1568432da87c7d9?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              aaliwei91
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6940">
              <time datetime="2015-11-18T11:15:20+00:00">
               2015/11/18 11:15
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             xboost里面有没有类似gbm的shrinkage参数?
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给aaliwei91" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6940#respond" onclick='return addComment.moveForm( "div-comment-6940", "6940", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor even depth-2" id="comment-6941">
            <article class="comment-body" id="div-comment-6941">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6941">
                <time datetime="2015-11-18T11:20:59+00:00">
                 2015/11/18 11:20
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               xgboost的eta就相当于shrinkage，更多参数请见https://xgboost.readthedocs.org/en/latest/parameter.html
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6941#respond" onclick='return addComment.moveForm( "div-comment-6941", "6941", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-6942">
          <article class="comment-body" id="div-comment-6942">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/4439dfb85e827736d1568432da87c7d9?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              aaliwei91
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6942">
              <time datetime="2015-11-18T11:23:43+00:00">
               2015/11/18 11:23
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             上面那个找到了是eta…..另一个问题是模型训练完之后如何得到具体的模型呢?比如我想把模型树出来,看看每一棵树具体的结构.
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给aaliwei91" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6942#respond" onclick='return addComment.moveForm( "div-comment-6942", "6942", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor even depth-2" id="comment-6943">
            <article class="comment-body" id="div-comment-6943">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6943">
                <time datetime="2015-11-18T11:29:40+00:00">
                 2015/11/18 11:29
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               可以参考xgb.dump()函数，要做图可以用xgb.plot.tree()函数
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6943#respond" onclick='return addComment.moveForm( "div-comment-6943", "6943", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-6944">
          <article class="comment-body" id="div-comment-6944">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/4439dfb85e827736d1568432da87c7d9?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              aaliwei91
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6944">
              <time datetime="2015-11-18T11:52:01+00:00">
               2015/11/18 11:52
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             谢谢！我先学习一下！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给aaliwei91" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6944#respond" onclick='return addComment.moveForm( "div-comment-6944", "6944", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1 parent" id="comment-6984">
          <article class="comment-body" id="div-comment-6984">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/4439dfb85e827736d1568432da87c7d9?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              aaliwei91
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-6984">
              <time datetime="2015-12-11T09:52:17+00:00">
               2015/12/11 09:52
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             比如训练用了500棵树，预测的时候想看从10，20，30…500各个模型的情况，有类似predict.gbm()里面n.trees类似的参数吗？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给aaliwei91" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6984#respond" onclick='return addComment.moveForm( "div-comment-6984", "6984", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor odd alt depth-2" id="comment-6985">
            <article class="comment-body" id="div-comment-6985">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-6985">
                <time datetime="2015-12-11T10:24:24+00:00">
                 2015/12/11 10:24
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               设置 ntreelimit 参数
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=6985#respond" onclick='return addComment.moveForm( "div-comment-6985", "6985", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-7022">
          <article class="comment-body" id="div-comment-7022">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/de300629bdab01eb5d8f91a8d89d73d1?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              罗锐
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-7022">
              <time datetime="2016-01-06T14:13:57+00:00">
               2016/01/06 14:13
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             请教：“目前支持直接从硬盘读取libsvm格式的文件。”，有没有将CSV文件或TXT文件转换为libsvm格式文件的脚本？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给罗锐" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=7022#respond" onclick='return addComment.moveForm( "div-comment-7022", "7022", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-7023">
          <article class="comment-body" id="div-comment-7023">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/de300629bdab01eb5d8f91a8d89d73d1?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              罗锐
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-7023">
              <time datetime="2016-01-06T14:29:34+00:00">
               2016/01/06 14:29
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             再请教个问题，对于SVM来说，以二分类为例，当训练数据集的数据不平衡（比如，0类是1类的1%）时，SVM建模后的精度会降低，那么，对于XGBOOST也需要在建模前对数据不平衡问题先处理下吗？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给罗锐" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=7023#respond" onclick='return addComment.moveForm( "div-comment-7023", "7023", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-hetong007 bypostauthor even depth-2" id="comment-7031">
            <article class="comment-body" id="div-comment-7031">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://blog.programet.org/" rel="external nofollow">
                 严酷的魔王
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2015/03/xgboost/#comment-7031">
                <time datetime="2016-01-14T07:04:32+00:00">
                 2016/01/14 07:04
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               可以参考这个例子给不同类的数据点设置权重：https://github.com/dmlc/xgboost/blob/master/demo/kaggle-higgs/higgs-train.R#L17
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=7031#respond" onclick='return addComment.moveForm( "div-comment-7031", "7031", "respond", "10608" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-7045">
          <article class="comment-body" id="div-comment-7045">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/de300629bdab01eb5d8f91a8d89d73d1?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              罗锐
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-7045">
              <time datetime="2016-01-25T17:39:24+00:00">
               2016/01/25 17:39
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             我用xgboost过程中遇到2个问题：
             <br/>
             1、安装过程中，遇到错误提示，“无法定位程序输入点_chsize_s于动态链接库msvcrt.dll上“，我用的语句是devtools::install_github(‘dmlc/xgboost’,subdir=’R-package’)；
             <br/>
             2、我用CRAN上的xgboost包，安装后训练模型
             <br/>
             bst &lt;- xgboost(data = traindata, label = trainlebel, max.depth = 2, eta = 1, nround = 2, objective = "binary:logistic")
             <br/>
             其中traindata是matrix类型，
             <br/>
             但出现错误提示Error in xgb.DMatrix(data, label = label) : can not open file "  34"
             <br/>
             请问是什么原因呢？
             <br/>
             多谢了！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给罗锐" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=7045#respond" onclick='return addComment.moveForm( "div-comment-7045", "7045", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-7057">
          <article class="comment-body" id="div-comment-7057">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/de300629bdab01eb5d8f91a8d89d73d1?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              罗锐
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-7057">
              <time datetime="2016-02-03T10:41:53+00:00">
               2016/02/03 10:41
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             关于如何调xgboost参数的文档《Notes on Parameter Tuning》，其中有这么一段话，不太明白
             <br/>
             “Handle Imbalanced Dataset
             <br/>
             For common cases such as ads clickthrough log, the dataset is extremely imbalanced. This can affect the training of xgboost model, and there are two ways to improve it.
             <br/>
             If you care only about the ranking order (AUC) of your prediction Balance the positive and negative weights, via scale_pos_weight Use AUC for evaluation.
             <br/>
             If you care about predicting the right probability. In such a case, you cannot re-balance the dataset.In such a case, set parameter max_delta_step to a finite number (say 1) will help convergence”
            </p>
            <p>
             我的问题是， “care about predicting the right probability” 和”care only about the ranking order (AUC) of your prediction”分别是什么意思，有什么区别呢？ 假设一个案例，比如，我们做手机用户离网预测，其中离网用户很少，未离网用户要多得多，是个不平衡的数据集，这种情况下，我用xgboost建模，该选择调整”max_delta_step” 还是调整 “scale_pos_weight” that I shoud tune?英语不太好，请教哈，谢谢！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给罗锐" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=7057#respond" onclick='return addComment.moveForm( "div-comment-7057", "7057", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="pingback odd alt thread-even depth-1" id="comment-7076">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://www.afenxi.com/post/8687" rel="external nofollow">
            2016年John Chambers统计软件奖已公布 中国留学生包揽全部奖项-数据分析网
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-7212">
          <article class="comment-body" id="div-comment-7212">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/58b4daacfe99c92c43b293cf3221f82a?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              谢杰
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2015/03/xgboost/#comment-7212">
              <time datetime="2016-05-03T10:46:33+00:00">
               2016/05/03 10:46
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             您好，我在使用xgboost的时候出现错误：Error in xgb.DMatrix(data, label = label) : can not open file “1”
             <br/>
             请问这是什么原因？该怎么改进
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给谢杰" class="comment-reply-link" href="http://cos.name/2015/03/xgboost/?replytocom=7212#respond" onclick='return addComment.moveForm( "div-comment-7212", "7212", "respond", "10608" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="pingback odd alt thread-even depth-1" id="comment-7216">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://www.afenxi.com/post/16436" rel="external nofollow">
            学习R语言，一篇文章让你从懵圈到入门-数据分析网
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="pingback even thread-odd thread-alt depth-1" id="comment-7232">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://www.ikddm.com/96.html" rel="external nofollow">
            学习R语言，一篇文章让你从懵圈到入门 - 淘数宝
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="pingback odd alt thread-even depth-1" id="comment-7264">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://www.ppvke.com/Blog/archives/30880" rel="external nofollow">
            学习R语言，一篇文章让你从懵圈到入门 | PPV课博客
           </a>
          </div>
         </li>
         <!-- #comment-## -->
        </ol>
        <!-- .comment-list -->
        <div class="comment-respond" id="respond">
         <h3 class="comment-reply-title" id="reply-title">
          发表评论
          <small>
           <a href="http://cos.name/2015/03/xgboost/#respond" id="cancel-comment-reply-link" rel="nofollow" style="display:none;">
            取消回复
           </a>
          </small>
         </h3>
         <form action="http://cos.name/wp-comments-post.php" class="comment-form" id="commentform" method="post" novalidate="">
          <p class="comment-notes">
           <span id="email-notes">
            电子邮件地址不会被公开。
           </span>
           必填项已用
           <span class="required">
            *
           </span>
           标注
          </p>
          <p class="comment-form-comment">
           <label for="comment">
            评论
           </label>
           <textarea aria-required="true" cols="45" id="comment" maxlength="65525" name="comment" required="required" rows="8">
           </textarea>
          </p>
          <p class="comment-form-author">
           <label for="author">
            姓名
            <span class="required">
             *
            </span>
           </label>
          </p>
          <p class="comment-form-email">
           <label for="email">
            电子邮件
            <span class="required">
             *
            </span>
           </label>
          </p>
          <p class="comment-form-url">
           <label for="url">
            站点
           </label>
          </p>
          <p class="form-submit">
          </p>
          <p style="display: none;">
          </p>
          <p style="display: none;">
          </p>
         </form>
        </div>
        <!-- #respond -->
       </div>
       <!-- #comments -->
      </div>
      <!-- #content -->
     </div>
     <!-- #primary -->
     <div class="sidebar-container" id="tertiary" role="complementary">
      <div class="sidebar-inner">
       <div class="widget-area">
        <aside class="widget widget_text" id="text-3">
         <h3 class="widget-title">
          关注统计之都
         </h3>
         <div class="textwidget">
          <ul>
           <li>
            新浪微博
            <a href="http://weibo.com/cosname">
             @统计之都
            </a>
           </li>
           <li>
            人人网
            <a href="http://renren.com/cosname">
             @统计之都
            </a>
           </li>
           <li>
            Twitter
            <a href="http://twitter.com/cos_name">
             @cos_name
            </a>
           </li>
          </ul>
         </div>
        </aside>
        <aside class="widget widget_text" id="text-6">
         <h3 class="widget-title">
          微信公众平台
         </h3>
         <div class="textwidget">
          <img src="http://cos.name/wp-content/uploads/2013/04/qrcode-8cm.jpg"/>
          <p style="font-size:12px;margin-left:15px">
           微信号 CapStat
          </p>
          <p>
           我们将第一时间向您推送主站和论坛的精彩内容，以及统计之都的线下活动、竞赛、培训和会议信息。
          </p>
         </div>
        </aside>
        <aside class="widget widget_text" id="text-8">
         <h3 class="widget-title">
          站内导航
         </h3>
         <div class="textwidget">
          <ul>
           <li class="page_item">
            <a href="http://cos.name/cn/">
             中文论坛
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/videos/">
             视频
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/salon/">
             统计沙龙
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/books/">
             图书出版
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/training/">
             教育培训
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/about/">
             关于我们
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/donate/">
             捐赠
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/chinar/">
             R语言会议
            </a>
           </li>
          </ul>
         </div>
        </aside>
        <aside class="widget widget_links" id="linkcat-2">
         <h3 class="widget-title">
          友情链接
         </h3>
         <ul class="xoxo blogroll">
          <li>
           <a href="http://stat.ruc.edu.cn" target="_blank" title="中国人民大学统计学院网站">
            中国人民大学统计学院
           </a>
          </li>
          <li>
           <a href="http://rucdmc.net">
            中国人民大学数据挖掘中心
           </a>
          </li>
          <li>
           <a href="http://birc.gsm.pku.edu.cn/" target="_blank">
            北京大学商务智能研究中心
           </a>
          </li>
          <li>
           <a href="http://sam.cufe.edu.cn/" target="_blank" title="中央财经大学统计与数学学院网站">
            中央财经大学统计与数学学院
           </a>
          </li>
          <li>
           <a href="http://tjx.cueb.edu.cn/" target="_blank" title="首都经济贸易大学统计学院网站">
            首经贸统计学院
           </a>
          </li>
          <li>
           <a href="http://www.shookr.com/">
            数客网大数据社区
           </a>
          </li>
          <li>
           <a href="http://www.xueqing.tv/" target="_blank" title="数据科学在线学习平台">
            雪晴数据网
           </a>
          </li>
          <li>
           <a href="http://iera.name/" target="_blank" title="IERA是一个旨在普及、传播和增进工业工程知识的非营利性网站">
            IERA（直通IE）
           </a>
          </li>
         </ul>
        </aside>
        <aside class="widget widget_categories" id="categories-2">
         <h3 class="widget-title">
          全部分类
         </h3>
         <label class="screen-reader-text" for="cat">
          全部分类
         </label>
         <select class="postform" id="cat" name="cat">
          <option value="-1">
           选择分类目录
          </option>
          <option class="level-0" value="925">
           cos访谈  (4)
          </option>
          <option class="level-0" value="659">
           图书出版  (5)
          </option>
          <option class="level-0" value="379">
           数学方法  (14)
          </option>
          <option class="level-1" value="381">
           分析与代数  (1)
          </option>
          <option class="level-1" value="380">
           概率论  (9)
          </option>
          <option class="level-1" value="382">
           随机过程  (5)
          </option>
          <option class="level-0" value="210">
           数据分析  (81)
          </option>
          <option class="level-1" value="203">
           多元统计  (3)
          </option>
          <option class="level-1" value="42">
           数据挖掘与机器学习  (42)
          </option>
          <option class="level-1" value="36">
           生物与医学统计  (17)
          </option>
          <option class="level-1" value="35">
           计量经济学  (4)
          </option>
          <option class="level-1" value="296">
           金融统计  (3)
          </option>
          <option class="level-1" value="303">
           风险精算  (7)
          </option>
          <option class="level-0" value="177">
           模型专题  (15)
          </option>
          <option class="level-1" value="38">
           回归分析  (10)
          </option>
          <option class="level-1" value="41">
           时间序列  (2)
          </option>
          <option class="level-0" value="784">
           每周精选  (24)
          </option>
          <option class="level-1" value="183">
           可视化  (9)
          </option>
          <option class="level-0" value="967">
           沙龙纪要  (3)
          </option>
          <option class="level-0" value="18">
           经典理论  (46)
          </option>
          <option class="level-1" value="37">
           抽样调查  (3)
          </option>
          <option class="level-1" value="4">
           统计推断  (26)
          </option>
          <option class="level-1" value="236">
           试验设计  (7)
          </option>
          <option class="level-1" value="39">
           非参数统计  (3)
          </option>
          <option class="level-0" value="1">
           统计之都  (279)
          </option>
          <option class="level-1" value="884">
           中国R会议  (2)
          </option>
          <option class="level-1" value="885">
           中国R语言会议  (5)
          </option>
          <option class="level-1" value="446">
           出国留学  (3)
          </option>
          <option class="level-1" value="179">
           推荐文章  (90)
          </option>
          <option class="level-1" value="3">
           新闻通知  (75)
          </option>
          <option class="level-1" value="263">
           统计刊物  (10)
          </option>
          <option class="level-1" value="174">
           网站导读  (40)
          </option>
          <option class="level-1" value="204">
           职业事业  (51)
          </option>
          <option class="level-1" value="213">
           高校课堂  (9)
          </option>
          <option class="level-0" value="178">
           统计计算  (28)
          </option>
          <option class="level-1" value="40">
           优化与模拟  (15)
          </option>
          <option class="level-1" value="43">
           贝叶斯方法  (6)
          </option>
          <option class="level-0" value="378">
           软件应用  (116)
          </option>
          <option class="level-1" value="44">
           统计图形  (36)
          </option>
          <option class="level-1" value="110">
           统计软件  (83)
          </option>
         </select>
        </aside>
        <aside class="widget widget_recent_comments" id="recent-comments-2">
         <h3 class="widget-title">
          最新评论
         </h3>
         <ul id="recentcomments">
          <li class="recentcomments">
           <span class="comment-author-link">
            fineboom
           </span>
           发表在《
           <a href="http://cos.name/2016/06/use-shiny-fleetly-set-up-visual-prototype-system/#comment-7317">
            利用shiny包快速搭建可视化原型系统
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            胡家新
           </span>
           发表在《
           <a href="http://cos.name/2016/06/r%e8%af%ad%e5%8d%83%e5%af%bb%e7%ac%ac%e4%b8%89%e6%9c%9f%ef%bc%9a%e5%bc%a0%e6%97%a0%e5%bf%8c%e7%a9%b6%e7%ab%9f%e7%88%b1%e8%b0%81%ef%bc%9f/#comment-7316">
            R语千寻第三期：张无忌究竟爱谁？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            <a class="url" href="http://www.zijiacha.com/category.php?id=6" rel="external nofollow">
             南糯山普洱茶
            </a>
           </span>
           发表在《
           <a href="http://cos.name/2016/06/r%e8%af%ad%e5%8d%83%e5%af%bb%e7%ac%ac%e4%b8%89%e6%9c%9f%ef%bc%9a%e5%bc%a0%e6%97%a0%e5%bf%8c%e7%a9%b6%e7%ab%9f%e7%88%b1%e8%b0%81%ef%bc%9f/#comment-7315">
            R语千寻第三期：张无忌究竟爱谁？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            J
           </span>
           发表在《
           <a href="http://cos.name/2016/05/value-of-the-reputation-from-the-data/#comment-7314">
            数据告诉你：高信誉的卖家应该收高价，还是收低价？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            <a class="url" href="http://gg" rel="external nofollow">
             Hilda
            </a>
           </span>
           发表在《
           <a href="http://cos.name/2013/01/drawing-map-in-r-era/#comment-7311">
            R时代，你要怎样画地图？
           </a>
           》
          </li>
         </ul>
        </aside>
        <aside class="widget widget_rss" id="rss-282869971">
         <h3 class="widget-title">
          <a class="rsswidget" href="http://cos.name/cn/topics/feed/">
           <img src="http://cos.name/wp-includes/images/rss.png"/>
          </a>
          <a class="rsswidget" href="http://cos.name/cn/topics/feed/">
           中文论坛新帖
          </a>
         </h3>
         <ul>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/417372/">
            处理时间数据和产生时间序列的问题
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/6790/">
            《统计陷阱》下载 （How to lie with statistics）
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/818/">
            统计学的世界（第五版）
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/16574/">
            class(x) 返回值值是AsIs,AsIs代表什么，有什么用处？
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/417366/">
            如何用R绘制一个分类算法的决策规则
           </a>
          </li>
         </ul>
        </aside>
        <aside class="widget widget_text" id="text-2">
         <h3 class="widget-title">
          登录/RSS
         </h3>
         <div class="textwidget">
          <ul>
           <li>
            <a href="http://cos.name/wp-admin/">
             登录
            </a>
           </li>
           <li>
            <a href="http://cos.name/feed/" title="使用 RSS 2.0 同步站点内容">
             文章
             <abbr title="Really Simple Syndication">
              RSS
             </abbr>
            </a>
           </li>
           <li>
            <a href="http://cos.name/comments/feed/" title="RSS 上的最近评论">
             评论
             <abbr title="Really Simple Syndication">
              RSS
             </abbr>
            </a>
           </li>
          </ul>
         </div>
        </aside>
       </div>
       <!-- .widget-area -->
      </div>
      <!-- .sidebar-inner -->
     </div>
     <!-- #tertiary -->
    </div>
    <!-- #main -->
    <footer class="site-footer" id="colophon" role="contentinfo">
     <div class="site-info">
      版权所有 © 2014 统计之都 | 由
      <a href="http://wordpress.org/">
       WordPress
      </a>
      构建 | 主题修改自
      <a href="http://wordpress.org/themes/twentythirteen">
       Twenty Thirteen
      </a>
     </div>
     <!-- .site-info -->
    </footer>
    <!-- #colophon -->
   </div>
   <!-- #page -->
   <p style="margin:0;padding:0;height:1px;overflow:hidden;">
    <a href="http://www.wumii.com/widget/relatedItems" style="border:0;">
     <img src="http://static.wumii.cn/images/pixel.png"/>
    </a>
   </p>
  </div>
 </body>
</html>